主存|篇文章_存储优化查询分离

篇首语：本文由编程笔记#小编为大家整理，主要介绍了存储优化--查询分离相关的知识，希望对你有一定的参考价值。

上一篇文章中我们讲解了利用数据库分区与冷热分离的方式来优化存储，虽然解决了查询速度慢的问题，但是在海量数据情况下依然会出现查询缓慢问题，并且部分系统中的冷热数据也是需要频繁或同时查询的。那么，这篇文章中我将带领大家来学习一下如何在设计系统架构时解决海量的数据存储与查询。

一、案例

我们有一个自动化舆情系统，简要的工作流程是这样的：每天数据采集服务会从公共社交媒体上采集数据并存入数据库，识别服务读取数据库中存储的数据按照一定的规则进行分析识别，并将分析识别的结果存入库中，客户端实时读取数据库的分析识别结果，将信息展示出来，而且该系统还要支持舆情追溯功能（例如某人在某公共社交平台发布了不良言论，可以通过该系统查找他以前发布的所有言论以及所有言论的识别结果）。
根据上面对舆情系统的简要描述我们可知，该系统需要采集大量的数据来进行分析，并且需要对历史数据进行查询。因此该系统具备如下两个特征：

1. 海量数据；


2. 冷热数据同时查询。

那么根据这两个特征，我们就不能使用上一篇文章中所说的分区或冷热分离的方式来设计数据存储架构了。就目前来看比较适合的就是查询分离方案（目前指的是在这篇文章中，下一篇文章针对舆情系统还有更好的数据存储解决方案）。

二、简介

2.1 概念

每次向数据库中更新数据的同时，将数据也保存到其他存储系统中（其他存储系统可以是），当用户查询数据的时候直接从其他从出系统中查询出即可。这个更新的数据库被称为主存储，用来查询的数据库被称为查询存储。基本架构图如下：

2.2 适用场景

一般来说如果遇到如下问题就可以使用查询分离：

1. 数据量大，单表数据达到千万；


2. 查询速度慢，即使加了索引也是很慢；


3. 存在复杂的表关联查询；


4. 所有数据都有可能被修改和查询。

三、实现

查询分离的实现思一般分三个步骤：

1. 如何触发；


2. 如何实现


3. 查询存储如何存储。

下面我们就来一一讲解一下。

3.1 如何触发

常见的查询分离触发方式有三种：

1. 在向主存储更新数据后马上向查询存储更新同样的数据，并在查询存储数据更新完成后向用户返回结果。这种触发方式虽然保证了查询存储数据的实时性和一致性，并且业务逻辑也可控，但是对代码的侵入较大，只要是涉及更新主存储的代码，都要加入向查询存储更新数据的代码。而且这种方式还会减缓写操作的响应时间，因为我们要等待查询存储的数据跟新完成后才能返回响应结果。


2. 在向主存储更新数据后异步更新查询存储，不等待查询存储数据更新完成，就向用户返回结果。这种方式不影响主流程，但是如果在查询存储更新前，用户进行了相关查询，就会返回过时的数据，而且这种方式对代码同样有侵入性。


3. 监控主存储日志，如果发生变更，就去更新查询存储。这种方式不影响主流程，对业务代码零侵入，但是在查询存储更新前，用户可能会查到过时的数据，并且这种方式的架构比前两种方式复杂。

下表列出了这三种方式适合的场景：

针对上面三种触发方式的简单讲解和适合场景的描述可知，我们的舆情系统适用于方式二。

3.2 如何实现

我们已经在上一小节中确定使用第二种触发方式来设计我们的数据存储架构了。实现它的思路可以简述为：单独启动一个线程来对查询存储进行更新。但是，这种方式在实现时要考虑如下三个情况：

1. 当出现大量写入操作时，更新查询存储的线程会很多，就会给舆情系统、查询存储、甚至服务器带来巨大的压力，那么这个时候我们就需要控制跟新查询存储的线程数量了；


2. 如果在更新查询存储的过程中出现了更新失败的情况，我们应该引入重试机制，那么我们该怎么标识需要重试的数据；


3. 多线程并发更新查询存储时该怎么处理？

针对上述三种情况，我们可以使用 MQ来解决，思路也很简单：当向主存储更新数据时，都要向MQ发出一个通知，MQ在收到通知后启动一个线程来更新查询存储。
当然在使用 MQ 的时候也会遇到各种问题，最常见的问题就是 MQ 挂掉了。当 MQ 挂掉后会出现如下两种情况：

1. 主存储跟新完后向MQ发送通知，但是MQ无法收到这个通知，因此数据也就不会更新到查询库里，那么就出现了数据丢失的问题；


2. MQ 消费者收到消息去更新查询存储后，告诉MQ消费完成，但是MQ这时挂了，已经收不到这个反馈了，但是在MQ重新启动后，这条消息又被投递了，这时就出现了重复投递的问题。

前述的这两种情况我们可以在主存储中增加一个 需要更新到查询存储 字段，每次在向主存储更新数据时就将这个字段设置为 true，扎样在向MQ发消息时只用发送一个简单的更新消息即可，不需要向MQ发送包含数据ID的消息。查询存储更新服务在获取到这个消息后，首先在主存储中查询 ***需要更新到查询存储***字段为true的数据，然后将这些数据批量更新到查询存储中，更新完毕后再将这些数据的**需要更新到查询存储字段改为false即可。
我们也可以利用MQ来实现削峰，当更新的请求太多时通过MQ来控制执行同步查询库的线程数。
数据更新到查询存储失败问题我们可以引入重试机制，并且只有在更新成功后才去修改***需要更新到查询存储***字段的值。当然，并不是每次重试机制都能将数据更新成功，因此我们可以设定一个重试次数阈值，当数据重试次数达到这个阈值时就需要及时通知相关人员进行人工干预了。

关于并发问题的解决方法可以参考上一篇文章。
这一小节还剩最后一个问题，时序性问题。例如小明先将A数据更新为123，小红后将A数据更新为321，但是更新查询存储时，小红的更新线程却先于小明的更新线程启动，这时就出现了小明的旧数据覆盖了小红的新数据。解决这个问题也很简单，在主存储中增加 最后更新时间 字段，线程更新完查询存储后，检查当前数据的***最后更新时间*** 字段的值是否和线程刚启动时是一样的，并且***需要更新到查询存储***字段为false，如果满足条件就将***需要更新到查询存储***字段改成true，在做一次更新查询存储活动。

3.3 查询存储如何存储

一般来说比较常见的存储方案是使用 Elasticsearch、MongoDB或Redis，这三种方案都时候复杂查询。但是，具体存储方案的选型应该根据开发组技术情况和项目情况来走。

四、总结

这一篇文章主要讲了查询分离的知识以及如何设计数据存储架构，下一篇我将优化本篇案例的解决方案。